Gobernanza de Inteligencia Artificial en Bogotá: un buen comienzo y noticia en desarrollo

Cero y van dos. Similar a lo ocurrido con el Acuerdo PCSJA24-12243 del Consejo Superior de la Judicatura (CSJ) que estableció lineamientos para el uso ético, seguro y responsable de la Inteligencia Artificial Generativa (GenIA) en la Rama Judicial, entre novenas y buñuelos, casi pasan desapercibidos los Lineamientos Técnicos y Éticos en Inteligencia Artificial (IA) para el Distrito Capital de Bogotá.

El 26 de diciembre de 2025 fueron aprobados mediante el Acuerdo 003 de 2025 los Lineamientos Técnicos y Éticos en IA para el Distrito Capital de Bogotá. Estos lineamientos son vinculantes para las entidades del sector central, descentralizado y las localidades del Distrito Capital conforme a lo establecido por el Decreto 1421 de 1993, al igual que le son exigibles a los particulares que ejercen funciones públicas dentro de la Administración Distrital e.g. contratistas de entidades distritales.

Los lineamientos se estructuran mediante un “Modelo de Preparación e Implementación” (MPI) que organiza las medidas a lo largo del ciclo de vida de un proyecto de implementación o desarrollo de un sistema de IA desde una perspectiva de gestión tipo PHVA: Planear‑Hacer‑Verificar‑Actuar y decisiones por “puertas” (stage‑gate) con evidencia verificable. Este modelo se divida en tres (3) fases.

En la Fase 1 (Planeación), la entidad debe verificar la capacidad institucional para ejecutar el proyecto de IA y así definir la ruta para la ejecución del proyecto en función de su madurez auto diagnosticada según unos estándares comunes entre las entidades. Las rutas según madurez pueden ser: (i) exploratoria, (ii) consolidación o (iii) avanzada; según ello, la entidad deberá fijar el objetivo, alcance, población beneficiaria, responsables y fechas de las acciones que constituyen el proyecto. Además, la entidad deberá crear un expediente digital que fungirá de bitácora durante la totalidad del proyecto e incluso un tiempo después.

En la Fase 2 (Hacer), la entidad debe realizar el desarrollo, la validación y el despliegue operativo del sistema de IA, ejecutando pruebas, ajustes e iteraciones, y registrando decisiones y evidencias en el expediente digital del proyecto para asegurar la trazabilidad. En esta fase se aplican los requisitos generales y los controles por nivel de madurez, incluyendo gobernanza y seguridad, conexión con canales distritales de atención, actualización de la línea base del proyecto, clasificación de riesgos, uso responsable y ética, transparencia algorítmica (que se remite a la Directiva Conjunta 7 del 2025 expedida por la PGN y DP), etiquetado de contenido generado por IA y canales de participación ciudadana.

En la Fase 3 (Verificar y Actuar), la entidad debe verificar, monitorear y mejorar el funcionamiento de los sistemas de IA en operación, manteniendo su actuación dentro de los principios de legalidad, transparencia, seguridad digital, ética pública y protección de derechos. Esta fase incluye un modelo de monitoreo, gestión de incidentes, relación con terceros y mejora continua que exige conservar en el expediente digital aquellos registros, reportes y auditorías; si hay proveedores, estas actividades se incorporan como obligaciones contractuales verificables.

Finalmente, este Acuerdo también regula el “uso cotidiano” de IA por servidores públicos y equipos administrativos del distrito, definido como aquel uso asistencial de modelos de lenguaje (tipo GPT) para apoyar tareas rutinarias como generar y organizar ideas, redactar/corregir/estructurar textos y hacer resúmenes o análisis preliminares, sin sustituir el juicio técnico o jurídico. Al respecto, el Acuerdo prohíbe usar la IA para producir cualquier actuación administrativa de carácter vinculante, automatizar decisiones o definir prioridades/asignar recursos, y prohíbe ingresar en herramientas abiertas datos personales o sensibles, información reservada/clasificada, documentos no publicados o información estratégica. Adicionalmente, exige validar y contrastar resultados, registrar el uso cuando corresponda y reportar riesgos, junto con otras medidas alienadas con lo dispuesto en los Principios de la OECD, la Recomendación de la UNESCO, la sentencia T-323 de 2024, entre otros precedentes relevantes en la materia.

Con este modelo de gobierno, el distrito apuesta por lograr una transformación digital que no sólo sea efectiva en cuanto a metas de eficiencia, calidad y democratización de los servicios que presta a los capitalinos, sino porque estos esfuerzos se hagan de forma organizada, controlada y consciente en términos de riesgos de diversa índole. Confieso que su estrategia, metodología y visión me impactó positivamente pues corresponde a un modelo de gobierno de IA que se aparta del “copiar y pegar” para presentar una propuesta propia que no sólo se ajusta al contexto y necesidades de entidades diversas, sino que busca llevar la teoría a la práctica, al tiempo que promueve la trazabilidad y transparencia que permite una eventual revisión o ajuste basados en datos.

Ahora bien, al igual que la IA, esta propuesta de modelo de gobierno de IA tiene doble filo. Por un lado, nació con fecha de vencimiento, pues corre un riesgo altísimo de ser derogado por una nueva ley expedida por el Congreso de la República. Por otro lado, su nivel de creatividad, balance y practicidad puede servir de luz para otras jurisdicciones regionales que, por el contrario, se posicionen a nivel nacional tras replicar el modelo. Sólo el tiempo y una implementación juiciosa y efectiva, definirán el destino de este modelo de gobierno. Por el momento, esto es un buen comienzo y noticia en desarrollo.